Jeneral Tan Sri Abdul Aziz Hj Zainal menerima pendidikan menengah di Boys Wing, Maktab Tentera DiRaja (MTD) di Sungai Besi. Beliau kemudian menjalani latihan Pegawai Kadet dan ditauliahkan ke dalam Rejimen Askar Melayu Diraja (RAMD) pada tahun 1971. Sulungnya posting adalah untuk RAMD ke-3 sebagai Komander Platun pada 16 April 1971.

Pengalaman tentera

Beliau pernah menjadi Pembantu Penasihat Pertahanan di kedutaan Malaysia di Filipina. Beliau juga pernah berkhidmat di Bosnia-Herzegovina ketika memimpin Malcon III, kontinjen tentera Malaysia di Bosnia di bawah NATO (1996-1997). Sekembalinya beliau dari tugasan di Bosnia-Herzegovina, beliau telah dinaikan pangkat Brigedier Jeneral dan dilantik menjadi Asisten Ketua Staf, Operasi dan Latihan Tentera Darat. Pada tahun 1998 beliau diberi kepercayaan menerajui 4 Briged (Briged ke-4, Mekanis). Pada tahun 2000 pula, beliau dilantik menjadi Ketua Staf, Markas Tentera Darat.Tahun 2001, beliau dinaikkan pangkat Mejar Jeneral dan diamanah memimpin 3 Divisyen, (Divisyen ke-3 Infantri). Pada 18 Ogos 2003, beliau sekali lagi dinaikan pangkat kepada Leftenan Jeneral dan dijadikan Panglima Medan Tentera Darat. Setahun kemudian, beliau dinaikan kepada Jeneral penuh apabila dilantik menjadi Panglima Tentera Darat pada 9 September menggantikan Dato' Wira Mohd Azumi yang bersara.

Kerjaya beliau mencapai kemuncaknya apabila dilantik memegang jawatan tertinggi Angkatan Tentera Malaysia pada 1 Februari 2007 menggantikan Laksamana Tan Sri Mohd Anwar Mohd Nor.

Marksman Abad ke-21

Buku Marksman Abad ke-21 yang ditulis oleh beliau, memperkenalkan budaya kerja kepada pemimpin dan pengurus pada semua peringkat organisasi yang membolehkan pencapaian prestasi yang tertinggi dalam organisasi. Gambaran tentang alat pengurusan kontemporari dan tuntutan semasa yang dijangka timbul daripada persekitaran yang pesat yang berubah-ubah dapat meluaskan pandangan anda tentang cara untuk meningkatkan prestasi individu dan organisasi.